Quantizing Intent: Cross-Domain Semantic IDs from Organic Activity for Industrial Ranking
量化意图:基于有机活动的跨域语义ID用于工业广告排序
🧭 跨域语义ID · 行为活动丰富度 ★ 深度解读
提出跨域用户语义ID和行为活动丰富度原则,利用有机Feed信号提升广告冷启动CTR达+1.522%,同时RQ-FSQ匹配密集AUC且存储缩小30~280倍
📌 工作参考价值(4 点)
- 行为活动丰富度选源原则:跨域特征优先选择编码近期行为信号(如浏览、互动序列)的源,而非静态画像文本。实验显示 Feed Activity 直接聚合行为比纯文本嵌入多 +0.177% AUC,可作为电商/广告系统选择外部特征源的直接指导。
- RQ-FSQ 离散化通用方案:将预训练用户/商品嵌入离散化时,可结合残差 VQ 保留全局结构与单维标量量化保留细节,匹配甚至超过原始密集嵌入 AUC。这一方法适用于压缩 LLM 编码器输出,在存储受限的推荐服务中能直接复用,实现 30~280 倍压缩而不掉点。
- HDE 模块即插即用:使用前缀 n-gram 哈希表对任意 K 级离散 ID 序列编码,支持多源独立查表与求和,插入现有 CTR 特征层无需修改骨干网络。该设计可直接迁移到电商排序模型的特征工程环节,降低多源离散特征集成成本。
- 冷启动行为桥接:将非广告域(如内容浏览、社交互动)的丰富行为量化为语义 ID,作为排序模型的用户侧特征,可有效缓解新用户/稀疏用户信号不足,冷启动段 CTR 提升达 +1.522%,对电商 Push、新客推荐场景有直接借鉴意义。